https://codeberg.org/drummyfish/tinyphysicsengine/src/branch/master - фиксированная запятая, тела приближаются сферами ( Read more... )

Одна из движущих сил стандарта плавающей запятой IEEE 754 был, в частности, суперкомпьютер Крей. Но не потому, что Крей такой сторонник стандартов. Скорее наоборот.

На машине Крея код x=1/y; z = y*x мог дать заметный разброс значений потому, что Крей из умножения столбиком отрезал все младшие биты!

Вот так:

123
*466
-----
738
738492 ( Read more... )

Ошибочные вычисления с плавающей запятой:

• Compute a*a - 2*b*b where a = 665857 and b = 470832 are of type float. Then compute a*a - 2.0*b*b. Repeat with type double. Java answers with float: 0.0 and 11776.0. Java answers with double: 1.0. Exact answer: 1.0.
• Compute 9x4 - y4 + 2y2 where x = 10864 and y = 18817 are of type double. Java answer: 2.0. ( Read more... )

А случайны ли числа мантиссы числа с плавающей запятой?